2025-09-12
Det, at flere og flere aspekter af vores liv og hverdag digitaliseres, stiller ikke kun store krav til de underliggende systemer, men rejser også mange fundamentale spørgsmål; såvel tekniske som etiske.
Et klassificeringsproblem (falsk positiv).
Et klassificeringsproblem (falsk positiv).
Hvem bærer skylden: Maskinen eller Rafaela, der var “andenpilot”?
Et klassificeringsproblem (falsk positiv).
Al data, der ligger til grund for maskines klassificerings-evner bygger på data som mennesker har haft ansvaret for. Maskiner forholder sig ikke til andet end tal.
Et klassificeringsproblem (falsk positiv).
Derfor kan maskiner ikke være sexistiske eller racistiske. Men der eksisterer (stadig) systematisk sexisme og racisme og disse forhold vil være afspejlet i den data vi træner modeller på.
Hver gang AI bruges til at træffe en beslutning (alt fra klassifikation til et skak-træk) ligger der menneskebestemte afvejninger bag.
Hver gang AI bruges til at træffe en beslutning (alt fra klassifikation til et skak-træk) ligger der menneskebestemte afvejninger bag.
“Du har en befolkning, hvor 0,5 procent får en alvorlig sygdom, og træner en model til at identificere dem. Modellen opnår hurtigt en høj træfsikkerhed på 99,5 procent, men er ikke i stand til at identificere en eneste af de syge. Hvad er der sket?” (fra Inga Strümke)
Hver gang AI bruges til at træffe en beslutning (alt fra klassifikation til et skak-træk) ligger der menneskebestemte afvejninger bag.
De klassiske:
De “nye”:
Correctional Offender Management Profiling for Alternative Sanctions (COMPAS)
It assesses not just risk but also nearly two dozen so-called “criminogenic needs” that relate to the major theories of criminality, including “criminal personality,” “social isolation,” “substance abuse” and “residence/stability.” Defendants are ranked low, medium or high risk in each category.
Amazon Scraps Secret AI Recruiting Engine that Showed Biases Against Women
Scrolling, autonomi og selvforstærkende mekanismer.
Har vi tænkt over hvad vi vil og ikke vil være med til?
Opvejet fordele og ulemper …
Hvem beslutter hvad vi vil og ikke vil? Og hvad er deres motivation for at beslutte som de gør?
Hvad er alternativet?
Det vi kan sige er, at vi altid vil være på bagkant af teknologien. Vi skal derfor kunne forholde os kritisk til teknologi med kort varsel-
I den ideelle verden: